五源张斐：AI of Loving Grace | 会数数的马

关于「会数数的马」

我们不知道自己

是一匹会数数的马

还是数学家，

尽管绝大多数情况是前者。

五源合伙人张斐的专栏，

不定期更新，

探讨认知与投资。

这一期专栏内容是五源合伙人张斐在今年5月的演讲，主题是《AI of Loving Grace》。

以ChatGPT为代表的大预言模型在持续引发关注。但这篇演讲并不是讲技术演进，也不是严肃的行业探讨，更多是关于AI的进化和商业的变革，以及智能时代我们共同面临的问题。

A作为一个新的物种，其创造的东西与此前所有的东西都不同。所有的逻辑都可以重塑，一切坚固的东西都烟消云散了，我们的认知被拉平在同一起跑线上。有些最基本的问题可能变得尤为重要，当智能无处不在时，最稀缺的是什么？如何定义人类与AI的关系，以及如何重新审视人类自身的价值和意义？

以下是演讲内容，希望对你有所启发：）

今天演讲的主题是《AI of Loving Grace》，为什么叫这个名字，听到最后大家会明白。

我相信到今天为止，大家已经听了很多关于AGI的、很硬核很时髦的东西。我今天讲得和这些都不太一样，你们不需要用复杂的大脑去思考，用你大脑50%的算力就够了。你能记住的东西是最重要的，记不住的东西都不重要。

为什么这么讲，你会发现，我们今天面临的情况，是进入到一个巨大的范式变化里，就像流星击中地球。可能大部分时候，我们在想要如何扮演一个好的恐龙，但其实不需要。因为哺乳动物的时代来了，我们需要做的是如何开创哺乳动物的时代。

我今天主要讲真相，The truth，包括当前的真相和接下来可能会发生的真相。里面有很多我个人的偏见和思考，希望对大家有些帮助。

怎么看待我们今天所处的状态？

很多人比喻说今天AI革命很像PC互联网时代或者移动互联网时代。大部分人对范式的解读被自己有限的体验约束，而历史往往告诉我们更多。

我最近又重新读了《乔布斯传》，重新看了计算机的历史，我发现其实今天更像当年的计算机时代，在那个时代发生的很多事情，和今天非常像。我们进入到一个新的计算范式，这个新范式完全改变了我们的环境。

回看过去150年信息科技的历史，你会很容易发现两个科技主线交替发展：连接与计算。1870到1950是连接时代（贝尔发明了电话，电话网络暴增），1950到1990是计算时代（大型计算机到PC时代），1990到2020年是连接时代（PC互联网到移动互联网）。从2020年新的AI时代到来，这是一个计算的时代。计算时代的游戏规则和连接时代的规则很不一样。譬如网络效应在连接时代是王道，在计算时代则未必。

回看今天，人类已经积累了非常丰富的书籍、知识、文献，有先进的科技，我们有半导体，巨大的数据中心、互联网、诸多的人类文明。然而，你会发现，All the rivers run to the sea. 所有的人类文明都在导向今天的AI，今天的GPT4。这似乎是科技的宿命。人工智能最厉害的地方在于，它是人类文明的压缩和抽象。

前段时间MIT采访了Geoffrey Hinton，他给了一个特别有趣的逻辑。他说，一个GPT用1700多亿的参数，一万亿个连接，居然就记住了人类所有的知识和文明，而且还可以进行抽象的思考，这是一件非常神奇的事情。GPT用了一个非常简单的反向传播的方法，比人类学会了更多的东西。人类的大脑里有100万亿个连接，但GDP里面只有1万亿个连接，AI比人类更擅长将大量知识放在1万亿的连接中。

他提出了一个很好的观点：“有可能机器找到了比人类更好的学习方法。”如果是这样的话，我们可以想一想，如果今天我们的智力和学习方法都比AI差，那未来人类的位置在哪里，这是一个更有趣的问题。

AI is much bigger than the Internet 

（人工智能比互联网大很多）

为什么这么讲?互联网是工具，AI是一个新的物种。它可以改变我们，甚至可以操控我们。可能人类接下来要做的重要的努力是要如何不被AI操控，不会爱上AI。

设想一下，如果今天有一艘飞船可以移民火星，我们只能带最重要的东西过去。过去我们可能会选择带互联网，但如果今天做出选择，很有可能会选择GPT4.所有的东西都可以重新建设，我们今天看到的一切都已经过时了，我们的认知被拉平在同一条起跑线上。

举个最简单的例子，早期的电脑时代我们发明了文件系统，有不同的文件格式，为了让机器更有效率地处理信息。但今天你会发现这些东西都不重要了，因为今天所有的数据都可以变成向量和Token了，都是一样的。

AI的数据处理方法和人脑的机制越来越像。当文件系统消失，当数据变成向量时，你会发现，我们关于基础设施的所有逻辑都要重新建设。

人类会变成什么？Super human。

事实上，今天的我们已经是半人类半机器了，手机在很大程度上和我们融为一体。但在未来，我们可能会发展成更像机器的人类，百分之七八十是机器，有百分之二三十的人性。

OpenAI的首席科学家Ilya曾提出过一个有趣的问题，一个人一生会说多少句话？即使是非常爱讲话的人，一辈子可能也就说10亿句话。假设有一个GPT可以记录下一个人一生说的所有话，那么这个AI对你的理解可能会超过任何人类，无论是你的爱人、父母还是朋友。

当人类的记忆、认知和感知都有巨大的提升的时候，我们就变成了超人。企业和公司会变成super agent，它们拥有超级智能，以智能的人的形式跟人类做交互。在企业组织内部和社会里都有大量的AI的agent相互协作。

可能在未来的组织里，大量的节点都是AI的agent，人和agent充分协作，分工也会变得有些奇特。很大的可能是，agent会承担越来越多的职责。人类可能会做一些帮助机器变得更强大的工作，因为agent的任务处理和决策能力已经逐渐超越人类了。

从信息过载到数据缺乏。在AI背景下，我们人类的信息过载问题得到了解决，智能助理很快帮助人类只需要做少量决策。但对AI来说，最大的挑战是数据不够。即使把人类所有的文明数据放进训练模型，还是不够。我们现在不得不发明新的方法，让人和AI进行更多的互动，产生更多数据。

另外，有个现象可能会很快发生，这个世界上会有10亿级别的程序员。

今天大家可能都觉得coding很难，但未来你只要会说话，就可以是programmer。过去我们有很多需求是没有被满足的，但在AI时代可能会改变，比如你可以做一个能识别“渣男渣女”的AI，可能是个很好的创意。

在上一个计算时代开启时，计算的Building Block非常重要。编程语言，图形化人机界面，操作系统这些工具定义了一个时代和重要公司。今天在AI的时代，我们看到许多新的工具不断涌现，怎么搭建更好的AI的基础设施和生态系统，是当下更为重要的事情。

Horizontal is bigger than vertical. 也是同样的逻辑。我们要做一些能更好地赋能所有行业和用户的工具，而不是说马上进入到垂直的应用领域。It is too early for the verticals.

软件模式必死

美国的同行说过，Software is eating the world，但是仔细想，软件是个非常傻的范式，所有的软件只有一个If then的逻辑，即如果发生了A，就执行B，如果发生了C，就执行D。如果你用软件的逻辑去和你的伴侣交往，你可能下场会很惨，因为软件和人是不一样的。

但AI不同，AI的逻辑是当巨大的数据和复杂背景摆在眼前时，AI会做出最高质量的决策。这是AI的特点，它和人类智能的本质类似。

所以，在AI的大背景下，软件产业会发生非常大的变化，会迅速切入到AI的逻辑。过去，软件产品的目标是让人的体验更好，而在AI的逻辑里，是提升agent的体验。

举个最简单的例子，今天我们打开淘宝购物时，会浏览不同品类的商品，查看其他用户的评价，辨别真假产品，最后下单做交易。听起来是一种非常自然的体验，但实际上包含了许多复杂的过程。

今天如果你要重新做一个淘宝的事情，只需进行需要建立两个agents，一个是个人助理Agent，一个是淘宝Agent。两个agents经过一些简单的交互对话，一个交易就结束了。在AI的背景下，产品逻辑发生了很大的变化，这也是我们这个时代变得非常有趣的原因之一。

另外，软件跟AI之间最大的区别在于，今天的软件产品，在所有关键节点都是人来做决定，软件做的大部分工作是自动化的。然而，AI时期，人类只需要做很少的决策，大部分决策是AI来做的。

我们最近看到一个非常有趣的创业demo，比如人类指定AI来设计一个游戏，AI可以分为定义两个agents，一个是designer agent，另一个是player agent。Designer agent可以拆解人类的目标进行编程，之后交给player agent来获取反馈，designer agent再对反馈修改游戏设计。经过几次交互，游戏设计就完成了。这与之前游戏设计的逻辑完全不一样，过去，一个游戏公司会需要很多人员，有策划、美术、编程等，现在只需要两个agents。

这个时代刚刚开始。首先是企业的workflow，当节点从人变成agent后，企业的流程软件也会发生很大的变化。

社交网络也是。以前都是人的社交网络，今天已经出现了bots的社交网络， bots可以根据另外一个bots的反馈来给出更多的行为和内容生成。人类跟bots的关系也变得非常奇特，人类可能是创造者，也可能是跟随者。在内容创造上，bots跟人类的创作区别会越来越大。到底人类更好，还是bots更好，这也是一个有趣的观察点，我们需要更好的天才产品经理来设计人类和bots能够更好互动的社交网络。

游戏在另一个角度来看，也会发生巨大的变化。如果你是一个重度游戏玩家，你会发现，今天的游戏已经越变得越来越复杂了，游戏文件大小已经有几十个G。为什么？因为过去游戏角色的智能程度比较低，不得不创造更多的场景来增加人与人的互动。

如果回顾最早期的游戏本身，会发现“玩家 VS AI”实际上是一个更好的模式，当AI的智能水平达到足够高的程度时，“玩家 VS AI”的体验是可以匹配与人类对战的体验的。我们投过一个AI的游戏公司，他告诉我们说，经过无数的实验，他们发现人们其实更喜欢与bots玩。

还有一个很重要的产品逻辑，你会发现所有的产品都变得越来越大，越来越复杂，但未来这个趋势会发生巨大的逆转。它们会变得更小、更智能、更强大。

再讲一个游戏的例子，在计算机的历史上，立项最早的游戏是一个名为《Pong》的乒乓球游戏， 玩家碰到球之后就会有得分。你可以跟机器玩，也可以跟其他人玩。这个游戏非常简单，但是在当时非常火爆。那么小的游戏、在一个那么粗糙的画面中，却可以产生那么大的乐趣。这与今天的游戏完全不一样，因为软件的逻辑导致了游戏今天的状态。

图为Pong的游戏界面

我们最近见了一个游戏设计师，他自己一个人设计一个特别有趣的游戏，这个游戏在Youtube上也有很多人在直播。游戏设定是这样：你身处一个房间，面对一个病态的AI女友，她手持一把刀，将你困在房间里，并告诉你外面是世界末日。你需要去说服她，赢得她的爱，她把你放走了，你就算赢了。

很多人试了各种方法，可能是表达爱意，或者欺骗她说我们有个孩子，我要出去买牛奶，有非常多的玩法。但在这种场景下，人与AI的互动变得非常不一样，当智能足够强大时，我们仿佛又回到了早期PC的年代，产品变得简单而有趣。

机器人也是如此，我们已经目睹了特斯拉的机器人自主组装自己的手臂。最重要的是，当机器人具备对世界的常识、当GPT接入机器人的大脑，当它具备对这个世界的观点并且能做更高层次的判断的时候，机器人会迎来一个全新的时代。

上帝创造了人类，人类创造了AI，AI也会创造新的智能物种，这可能是智能的宿命。

科技发展的历史有很多类似。当年IBM催化了微软，今天微软催化了OpenAI。当年很长时间大家都以为IBM是大赢家，后来微软几乎把IBM折腾的快挂掉。今天很多人都认为微软是赢家，可能不一定。在大范式变化时，我们大部分时间对赢家的判断是不准的。

我们的美国同行Peter Thiel, Founders Fund的创始人，他是个很有争议的强意识形态的投资人。2018年讲过一个观点: " Crypto is libertarian,  AI is communist. " 他认为加密货币代表自由主义，AI代表了共产主义。他对加密货币的观点今天看来不太对，他对人工智能的担心是大公司对AI的集中控制。今天AI的发展几乎证伪了他的观点。AI的大突破是从创业公司开始的，开源AI如火如荼，分布式的AI系统会很快出现。所以在思考科技行业的时候，千万不要被意识形态遮蔽了双眼。

另外关于AGI，很多人都认为OpenAI代表的ChatGPT技术是通向AGI唯一的道路。如果大家关注Le Cun或者Geoffrey Hinton，你会发现他们有不同的观点。如果从生命发展的角度看，智能的演化路径是非常多的，比如章鱼没有语言，但它们的智能是不错的。所以，在AGI的道路上，肯定会有许多不同的路径，希望人类能够在每一条路径上都有所发现。

最后，我分享一位在60-70年代很有影响力的诗人叫Richard Brautigan，他在60年代写了很有名的一首诗“All Watched Over by Machines of Loving Grace”（万物皆在慈爱的机器眷顾下），我想用这首诗来结束这段演讲。

I like to think (and

the sooner the better!)

of a cybernetic meadow

Where mammals and computers

live together in mutually

programming harmony

like pure water

touching clear sky.

I like to think

(right now please!)

of a cybernetic forest

filled with pines and electronics

where deer stroll peacefully

past computers

as if they were flowers

with spinning blossoms.

I like to think

(it has to be!)

of a cybernetic ecology

where we are free of our labors

and joined back to nature,

returned to our mammal

brothers and sisters,

and all watched over

by machines of loving grace.

五源寻找、支持、激励孤独的创业者，为其提供从精神到所有经营运作的支持。我们相信，如果别人眼中疯狂的你，开始被相信，世界将会别开生面。

BEIJING·SHANGHAI·SHENZHEN·HONGKONG

WWW.5YCAP.COM